Memory Network

old title: 記憶ネットワーク

記憶の取り出し:

$ o_1 = \mathrm{argmax}_i S_O(x, m_i)

$ o_2 = \mathrm{argmax}_i S_O((x, m_{o_1}, m_i)

$ r = \mathrm{argmax}_{w\in \mathcal{V}} S_R((x, m_{o_1}, m_{o_2}), w)

SO, SRはそれぞれ

$ s(x,y) = \Phi(X)^T \; U^T \; U \; \Phi(y)

このSO, SRの学習に必要な教師データを用意できるかどうかが現実問題としてはシビア

そこでend-to-end memory network